Тези шестима млади хора загинаха от насилие с оръжие. Сега техните генерирани от AI гласове изпращат молби за контрол на оръжията до законодателите
Гласът на Хоакин Оливър отеква из коридорите на Конгреса на шестата годишнина от смъртта му.
Идва от мобилния телефон на майка му пред вратите на офиса на законодателите на Капитолийския хълм. Безплътният глас на 17-годишното момиче, което е било ученик в гимназията Marjory Stoneman Douglas, има послание, което трябва да предаде.
„Преди шест години бях студент в Паркланд. Много ученици и учители бяха убити на Свети Валентин същата година от човек, използващ щурмова пушка AR-15“, казва гласът. „Минаха шест години, а вие не сте направили нищо. Нищо, което да спре всички стрелби, които продължават да се случват оттогава.”
„Работата е там, че умрях онзи ден в Паркланд“, продължава гласът. „Тялото ми беше унищожено от бойно оръжие. Днес се върнах, защото родителите ми използваха AI, за да пресъздадат гласа ми, за да ти се обадя.“
Аудиото е едно от шестте генерирани от изкуствен интелект гласови съобщения от млади хора, убити от насилие с оръжие, част от нова кампания, стартирана миналата седмица от две групи, March For Our Lives и Change the Ref, за да призоват законодателите да действат по отношение на контрола върху оръжията.
„Съпругата ми и аз се опитваме да използваме гласовете си през последните шест години. Нонстоп. Опитахме почти всеки един начин да подходим към насилието с оръжие по начин, който хората да обърнат внимание. Не постигнахме голям успех“, казва Мануел Оливър, който основа групата за застъпничество Change the Ref в памет на сина си след стрелбата през 2018 г. във Флорида.
„И така решихме, знаете ли какво? Нека донесем гласовете на нашите близки. Нека донесем гласа на Хоакин.
Един мъж слушаше гласа на сина си отново и отново, преди да се откаже
Уебсайтът на новата кампания, наречен The Shotline, приканва хората да слушат гласовите съобщения, да въведат пощенски код и да изпращат обаждания до членове на Конгреса.
Кампанията стартира в същия ден, когато масова стрелба на победния парад на Супербоул в Канзас Сити уби един човек и рани повече от 20 други, включително деца. В Съединените щати е имало 50 масови стрелби досега тази година, според Архив на насилието с огнестрелно оръжие.
10-годишният Узи Гарсия, който почина през май 2022 г., е едно от шестте деца, включени в кампанията.
„Обичам видеоигрите, да разказвам вицове и да карам приятелите си да се смеят и да скачам на батут със семейството си“, гласът на Узи, генериран от AI, казва в съобщението му. „Аз съм четвъртокласник в началното училище Роб в Увалде, Тексас. Или поне бях, когато мъж с AR-15 влезе в моето училище и уби 18 мои съученици, двама учители и мен. Това беше преди почти две години. Нищо не се е променило. Случиха се още повече стрелби.“
Бащата на Узи, Брет Крос, каза на CNN, че е прекарал часове в разглеждане на стари видеозаписи от детската площадка на телефона си, за да получи правилното звучене на гласа на Узи. Той казва, че е работил с технологичния екип на кампанията, за да се увери, че терена е правилен, и е слушал гласа на AI на Узи отново и отново, преди да се съгласи с използването му.
„Беше горчиво, защото отново чухме гласа му“, казва той. „Но той трябва да е тук, за да говори за себе си, а не е. Така че трябва да ставаме все по-креативни, за да накараме тези политици да ни слушат.“
Крос казва, че разбира, че използването на гласове на мъртви деца, за да се моли за контрол върху оръжията, притеснява някои хора. Той казва, че критиците в социалните медии са описали кампанията като неетична и „отвратителна“ и са го обвинили, че използва сина си като „пионка“, за да прокара програма за контрол върху оръжията.
Но той каза пред CNN, че не се притеснява от критиките.
„Ако смятате, че е неудобно да чуете гласа на сина ми, след като той почина, представете си какво е да бъдеш ние – да живееш с това всеки ден“, казва той.
Генерираните от AI гласове могат да предизвикат правни и етични опасения
От началото на кампанията повече от 54 000 гласови обаждания са изпратени досега до законодателите, според данни на сайта The Shotline.
Кампанията включва четири други жертви на насилие с оръжие: Итън Сонг, 15, от Кънектикът, който загина при случайна стрелба през 2018 г.; Акила Дасилва, 23, който беше убит при масова стрелба през 2018 г. в Тенеси; Майк Бауган, 30, от Мериленд, който се самоуби през 2014 г.; и Джейси Уебстър, 20, който беше застрелян и убит в дома си в Мериленд през 2017 г.
Повече от две дузини други родители са допринесли със звукозапис от гласовете на децата си в кампанията за потенциална употреба в бъдещи разговори, казва Мануел Оливър.
Кампанията идва, тъй като бързият напредък в технологиите за изкуствен интелект улесни пресъздаването на приликите и гласовете на хората, позволявайки на измамници и други лоши актьори да изпращат фалшиви и манипулативни съобщения.
Федералната комисия по комуникациите разрешава политически предварително записани гласови обаждания към стационарни телефони дори без предварително съгласие. Но по-рано този месец обяви, че измамите с автоматични разговори, използващи генерирани от AI гласове, са нарушение на закона за телекомуникациите. Съобщението дойде след генерирано от AI автоматизирано обаждане, което звучеше като президент Байдън разпространено до избирателите в Ню Хемпшир преди първичните избори в щата през януари, като им каза да си останат вкъщи.
Съобщенията на Shotline се изпращат до стационарните телефони на законодателите и изясняват, че гласовете са генерирани от AI, казва Оливър.
Един експерт каза на CNN, че родителите вероятно не нарушават закона на FCC, защото са прозрачни относно използването на AI и целта им не е да измамят.
„Ако оцените това обаждане от тази гледна точка, отпред е ясно, че е генерирано от AI, така че ако имат разрешение от семействата на гласа, който използват, и не нарушават TCPA (Закона за защита на потребителите на телефонни услуги) в някои в противен случай би било добре“, казва Алекс Куилиси, главен изпълнителен директор на YouMail, услуга за автоматично блокиране на разговори. „Помислете за старите реклами, които казваха „имитиран глас на знаменитост“ – всички бяхме добри с тях.“
Но за някои използването на генерирани от AI гласове на мъртви хора в кампания за контрол на оръжията може да породи етични опасения.
�
